Evidence-Grounded Verified Agentic Reasoning: A Path Toward Eliminating LLM Hallucination in Empirical Inference via Tool-Attested Kernel Proofs
基于证据锚定的可验证智能推理:通过工具见证内核证明消除LLM幻觉
🧭 LLM推理验证 · 证据锚定
提出 EG-VAR 架构,用 Lean 证明内核确保 LLM 推理每一步有可靠证据来源,实现 100% 验证精度。
📌 工作参考价值(4 点)
- 借鉴证据锚定思想:在电商搜索推荐 Agent 生成关键结论(如商品合规性判断、敏感推荐理由)时,强制输出附带数据源引用与验证链,减少幻觉风险
- 轻量级审计机制:可简化 Lean 形式化验证,用规则引擎或数据库约束替代,对 Agent 输出关键字段做一致性检查并记录追溯日志
- 分层设计思路:将高风险决策(如广告内容审核)剥离为独立验证模块,普通 LLM 调用保留灵活性,形成“主推理 + 形式化 sidecar”架构
- 错误处理模式:明确区分“可验证断言”与“放弃输出”,避免 Agent 生成无法验证的内容,提升系统整体可信度